AI030
Nền tảng Trí tuệ nhân tạo sinh ra bằng Python
Sự phát triển của xử lý ngôn ngữ tự nhiên và kiến trúc Transformer
Mục tiêu học tập
- Phân tích những hạn chế của RNN và LSTM trong việc xử lý các mối liên hệ dài hạn
- Xác định nền tảng toán học của cơ chế chú ý tự thân (Self-Attention)
- Phân tích cấu trúc kiến trúc bộ mã hóa-bộ giải mã Transformer và các thành phần của nó
- Đánh giá vai trò của mã hóa vị trí và chú ý đa đầu trong mô hình hóa chuỗi dữ liệu